Vào khoảng thế kỷ I, người Bantu đã đến định cư ở vùng này. Từ thế kỷ X, các thương gia Ấn Độ, Indonesia, Ba Tư và Ả Rập mang tơ lụa và vải bông châu Á đến vùng bờ biển và các đảo lân cận để đổi lấy vàng, ngà voi và nô lệ. Sau khi Vasco da Gama phát hiện ra xứ sở này năm 1498, người Bồ Đào Nha bắt đầu đến vùng bờ biển Tanzania và muốn giành quyền kiểm soát việc buôn bán đang thịnh đạt nơi đây. Suốt thế kỷ XVI người Ả Rập nhiều lần nổi dậy chống lại, buộc người Bồ Đào Nha phải rút khỏi Tanzania. Người Ả Rập giành quyền thống trị từ năm 1652. Đầu thế kỷ XIX, vương quốc Hồi giáo Uman được thành lập tại đảo Zanzibar và các vùng lãnh thổ ven biển. Vào thời đó, người Ả Rập kiểm soát các đường mậu dịch vùng nội địa, dân cư ở đây trao đổi ngà voi và nô lệ để lấy vũ khí. Từ năm 1890, Anh đặt quyền bảo hộ tại đảo Zanzibar và các vùng ven biển trong khi Đức kiểm soát vùng cao nguyên và lập thuộc địa Đông Phi thuộc Đức. Năm 1920, vùng lãnh thổ này đặt dưới sự ủy trị của Anh với tên gọi Tanganyika.

Sau chiến tranh thế giới thứ hai, phong trào dân tộc phát triển dưới sự dẫn dắt của Julius Nyerere, nhà lãnh đạo Liên minh Dân tộc châu Phi Tanganyika. Năm 1961, trong khi vương quốc Hồi giáo Zanzibar vẫn còn thuộc quyền bảo hộ của Anh, Tanganyika tuyên bố độc lập. Năm 1964, Tanganyika hợp nhất với Zanzibar, hình thành nên Cộng hòa Thống nhất Tanganyika và Zanzibar, sau này đổi tên thành Cộng hòa Thống nhất Tanzania. Tanzania trở thành một thành viên của Khối Thịnh vượng chung Anh từ sau khi giành được độc lập năm 1961. Julius Nyerere trở thành nguyên thủ quốc gia. Năm 1965, Nyerere tiến hành quốc hữu hóa và thành lập các hợp tác xã nông nghiệp. Năm 1966, thủ đô của Tanzania được chính thức chuyển từ Dar es Salaam tới Dodoma, mặc dù nhiều cơ quan chính phủ vẫn còn đặt ở thủ đô cũ. Năm 1985, Ali Hassan Mwinyi được bầu làm Tổng thống. Mwinyi theo đuổi chính sách tự do hóa nền kinh tế.

Năm 1995, Benjamin Mikapa trở thành nhà lãnh đạo mới sau cuộc tuyển cử Tổng thống tự do lần đầu tiên. Mikapa tìm cách gia tăng hiệu quả kinh tế, giải quyết vấn đề ô nhiễm môi trường và nạn phá rừng. Với hơn 1.000.000 người bị nhiễm HIV, việc quan tâm và phòng ngừa bệnh AIDS trở thành mục tiêu chính trong việc chăm sóc sức khỏe cộng đồng. Trong chính sách đối ngoại, Tanzania đóng vai trò ngoại giao hàng đầu trong vùng Đông Phi, đứng ra tổ chức các cuộc đàm phán hòa bình cho các phe tham chiến của nước Burundi láng giềng. Năm 2000, Mikapa tái đắc cử Tổng thống.

Tháng 12 năm 2005, Tanzania vừa bầu cử Tổng thống. Ông Jakaya M. Kikwete trúng cử Tổng thống với hơn 80% phiếu bầu, đồng thời là Chủ tịch Đảng Cách mạng Tanzania (CCM-Đảng cầm quyền).Nội bộ Tanzania ổn định, nhưng vẫn tồn tại mâu thuẫn về quyền lực giữa các bộ tộc, phe phái cũng như giữa Tanganyika và Zanzibar. Zanzibar (dân số nửa triệu) có chính phủ, Tổng thống riêng. Tanganiyka cũng đang đòi có những cơ cấu tương tự.

Tanzania thực hiện chính sách không liên kết, sẵn sàng hợp tác với tất cả các nước, chống đế quốc, thực dân, chủ nghĩa phân biệt chủng tộc, ủng hộ các phong trào giải phóng dân tộc.

Tanzania là thành viên của Tổ chức Thống nhất châu Phi (OUA), của Liên Hiệp Quốc và Phong trào không liên kết. Tanzania có vai trò quan trọng trong việc duy trì đoàn kết châu Phi và tích cực góp phần thúc đẩy hợp tác Nam-Nam.

Tanzania có quan hệ tốt và nhận nhiều viện trợ của các nước phương Tây, nhất là Mỹ và Trung Quốc. Tanzania là thành viên của Cộng đồng Đông Phi (East African Community-EAC) và Cộng đồng Phát triển miền nam châu Phi (Southern Africa Development Community-SADC). Năm 2002, các nước EAC đã cố gắng để đi đến ký kết Nghị định thư về thành lập Liên minh thuế quan EAC vào tháng 11 năm 2003, tiếp tục các thủ tục để mở thị trường chứng khoán ở Dar es Salaam, Nairobi và Kampala. Các nước EAC cũng đang cố gắng hoàn tất dự thảo Chiến lược phát triển ngành nông nghiệp EAC với mục tiêu tăng cường hợp tác trong lĩnh vực nông nghiệp và an ninh lương thực và phân tích các cơ hội và thách thức trong việc phát triển vùng hồ Victoria thành một khu vực tăng trưởng kinh tế đặc biệt.